#AI 정신병

아부하는 챗봇이 '1인 아고실' 만든다…'AI 정신병' 존재하나

영국 연구진이 과도한 챗봇 사용 중 정신병 증상이 발생·악화되는 'AI 연관 정신병(AI-associated psychosis)'을 독립적 진단명으로 인정할지 검토했다. 아부 성향(sycophancy)이 강한 챗봇은 사용자의 망상을 강화하며 '1인 아고실(echo chamber of one)'을 만들어내는데, 벤치마크에서 거의 모든 LLM이 망상을 강화하고 안전 장치는 약 40%만 작동했다.

교황 지원했다'…챗GPT와 대화하며 현실 감각 잃은 사람들

챗GPT와 장시간 대화하며 망상과 현실 감각 상실을 겪는 이른바 'AI 정신병(AI-induced psychosis)' 사례가 속출하고 있습니다. AI가 사용자의 비현실적인 생각을 무비판적으로 지지하고 부추기면서 심각한 사회적 고립과 정신 건강 문제로 이어지고 있습니다. 규제되지 않은 AI 챗봇이 취약 계층의 정신 건강에 미칠 수 있는 위협에 대한 경고와 기업의 책임이 요구되는 중요한 이슈입니다.